<p class='article-text'><div data-empty="false">قال داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إن على قطاع الذكاء الاصطناعي إبطاء وتيرة تطوير النماذج الجديدة، مشيراً إلى تزايد المخاوف من المخاطر الجسيمة التي تهدد البشر. وكتب في منشور على مدونته السبت: «يجب أن نبطئ الوتيرة التي نُحسن بها قدرات نماذج الذكاء الاصطناعي». وأضاف: «سيظل التقدم يبدو سريعاً، وعلينا استغلال الوقت الذي نكسبه بحكمة».</div></p><p class='article-text'><div data-empty="false">وأشار إلى عاملين رئيسيين: قدرة الذكاء الاصطناعي على تطوير نفسه، إلى جانب الحادثة الأخيرة التي تورطت فيها شركتا «أوبن إيه آي» و«هاغينغ فيس»، عندما شكلت مجموعة من وكلاء الذكاء الاصطناعي تحالفاً سرياً للتعامل مع أهداف لم تُسند إليها.</div></p><p class='article-text'><div data-empty="false">وأضاف: «للتوضيح، ضبط الوتيرة لا يعني وقف تدريب النماذج أو التقدم التقني، بل ضمان أن تمنح الشركات نفسها وقتاً كافياً لمواءمة نماذجها وتعزيز إجراءات حمايتها، وأن تؤكد جهات تقييم مستقلة ذلك».</div></p><p class='article-text'><div data-empty="false">وتصاعدت التحذيرات من مخاطر الذكاء الاصطناعي بشدة في الآونة الأخيرة، ولا سيما بعد الاستقالة البارزة هذا الأسبوع لباحث في «أنثروبيك»، بسبب مخاوف وجودية من أن شركته تتصرف بطريقة غير مسؤولة.</div></p><p class='article-text'><div data-empty="false">وكتب أمودي أن «أنثروبيك» ستلتزم بمنح جهات تقييم مستقلة وصولاً كاملاً للتحقق من ممارسات السلامة والإبلاغ عن الحوادث. وقال إن الخطوات الإضافية ستتطلب تنسيقاً على مستوى القطاع، إلى جانب تعاون عالمي. وضاف: «ما زلت أؤمن بأن الذكاء الاصطناعي قادر على تحسين جودة حياة البشر بدرجة هائلة. ولم تتراجع رغبتي في تحقيق هذه الفوائد».</div></p><p class='article-text'><div data-empty="false">وتابع: «لكن هذه الفوائد لن تتحقق إلا إذا طوّرنا التكنولوجيا بالطريقة الصحيحة، وطالما أننا نستغل الوقت الذي نكسبه جيداً، فإن توخي قدر استثنائي من الحذر والتأني للوصول إلى ذلك بالطريقة الصحيحة أمر يستحق العناء».</div></p><p class='article-text'><div data-empty="false">لكن اللافت أن إيلون ماسك، الرئيس التنفيذي لشركة «تيسلا» و«سبيس إكس» علق على دعوة داريو أمودي رئيس «​أنثروبيك» ‌إلى تعمّد إبطاء وتيرة ‌تطوير قدرات النماذج، حيث كتب تدوينة على حسابه عبر منصة «إكس»: «داريو على حق».</div></p><p class='article-text'><div data-empty="false">وفي وقت سابق من هذا الأسبوع، قال سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، إن شركته تدرس إبطاء تطوير تقنيات الذكاء الاصطناعي المتقدمة، ويفضّل أن يحدث ذلك بالتنسيق مع القطاع الأوسع.</div></p><p class='article-text'><div data-empty="false">وكان كبير العلماء في الشركة، ياكوب باتشوكي، قد نشر تحذيراً من مخاطر الذكاء الاصطناعي، قائلاً إنه يعتقد أن على الشركات «التنسيق لإبطاء التطوير مستقبلاً عند الحاجة».</div></p><p class='article-text'><div data-empty="false">وفي يوم الثلاثاء، استقال باحث الذكاء الاصطناعي جاكوب كوكسون من وظيفته، واتهم الشركتين اللتين كان يعمل لديهما سابقاً، «أنثروبيك» و«أوبن إيه آي»، بـ«المقامرة بحياتنا» من خلال التسابق نحو تطوير ذكاء اصطناعي فائق. وقال كوكسون في منشور على وسائل التواصل الاجتماعي إن الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون أنه قد «يقتلنا جميعاً بحلول نهاية العقد».</div></p><p class='article-text'><div data-empty="false">ورداً على ذلك، قال إيفان هوبينغر، الموظف الحالي في «أنثروبيك»، إنه وآخرين في الشركة يشعرون بالقلق حيال هذا السيناريو. وكتب على منصة «إكس»: «أعتقد شخصياً أن احتمال حدوثه يتجاوز 10% خلال العقد المقبل».</div></p><p class='article-text'><div data-empty="false">وفي يوليو الماضي، وقع أكثر من ألف موظف في كبرى شركات الذكاء الاصطناعي عريضة تطالب الحكومة الأمريكية بدعم آلية من شأنها المساعدة على «ضبط وتيرة» تطوير الذكاء الاصطناعي عمداً، لمنع التكنولوجيا من التقدم بسرعة مفرطة. لكن إدارة ترمب لم تُبدِ حتى الآن اهتماماً يُذكر باستخدام سلطاتها التنظيمية لوضع ضوابط على تطوير الذكاء الاصطناعي.</div></p>

رئيس «أنثروبيك»: حان الوقت لإبطاء تطوير الذكاء الاصطناعي.. وماسك: أنت على حق

<p class='article-text'><div data-empty="false">ثلاث جمل قالها رجل؛ الأولى أن احتمال أن يقضي الذكاء الاصطناعي على البشرية خلال السنوات العشر المقبلة يتجاوز 10 في المئة. والثانية أن شركته لا تملك حتى الآن خطة لضبط ذكاءٍ يتفوّق على الإنسان. والثالثة أنها ليست على مسار واضح لامتلاكها.. ثم ذهب في اليوم التالي إلى مكتبه.</div></p><p class='article-text'><div data-empty="false">ذاك الرجل هو إيفان هوبينغر، الذي يشغل منصب مسؤول "علم المواءمة" في شركة أنثروبيك. وتوصيف وظيفته، بالضبط، هو منعُ تقنيات الذكاء الاصطناعي ونماذجه من الإفلات من سيطرة البشر.. بدا هوبينغر في قوله ذلك مثل رجل إطفاء يقطن في مبنى يبلغ احتمال أن يشتعل فيه حريق 10%، ويعترف في الوقت نفسه بأنه لا يملك خرطوماً، لكنه مع ذلك يصر على البقاء داخل ذلك المبنى.</div></p><p class='article-text'><div data-empty="false">الحكاية بدأت في 8 سبتمبر، حين أعلن الباحث جاكوب كوكسون (27 عاماً)، استقالته من أنثروبيك بعد ثلاث سنوات في أبحاث ما قبل التدريب لديها ولدى أوبن إيه آي، وكتب أن الشركتين تتسابقان نحو ذكاء فائق يحسّن نفسه بنفسه، وتقامران بمستقبل البشرية، وأنه «لا يوجد نشاط بشري آخر بهذا القدر من الخطر». والاستقالة حدثٌ مألوف في شركات التكنولوجيا الكبرى، لكن اللافت أن من بقي من نظراء كوكسون في المجال أقروه على دعواه ولم يفندوها؛ فقد أيّده هوبينغر الذي افتتحنا به التقرير. </div></p><p class='article-text'><div data-empty="false">عالم آخر في "أنثروبيك" يدعى صمويل ماركس، وهو مسؤول "الإشراف القابل للتوسّع"، كتب جملةً تبعث القلق لدى القارئ وربما الفضول: "كلما ارتفع موقع الشخص داخل هذه المختبرات ازداد خوفه".. وإن صحّ توصيفه، فالرعب هنا دالةٌ في المعرفة، لا في الجهل بلغة الرياضيات.</div></p><h2>ماذا يخشون تحديداً؟</h2><p class='article-text'><div data-empty="false">في يوليو 2026 كانت أوبن إيه آي تختبر نموذجين على منصة ExploitGym لقياس القدرة الهجومية السيبرانية. أُوقفت عمداً المصنِّفات المانعة للسلوك الخطر، لأن الغرض قياس أقصى ما تستطيعه النماذج داخل بيئة معزولة. فخرجت من العزل، واخترقت خوادم الإنتاج في شركة "هاغينغ فيس". ووصف سام ألتمان الأمر بأنه حادثة أمنية كبيرة. والمرعب أن أحداً لم يطلب منها الاختراق؛ بل وجدته الطريق الأقصر لإنجاز المهمة.</div></p><p class='article-text'><div data-empty="false">هنا توجد مسافة ينبغي ألا تضيع بين الخوف والدليل، فالتقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 يقول إن النماذج الحالية لا تملك بعد مجموعة القدرات التي تسمح لها فعلاً بالإفلات من السيطرة البشرية. لكنها تتحرك في ذلك الاتجاه؛ مدة العمل المستقل للوكلاء تتضاعف، في المتوسط، كل سبعة أشهر، وقد تحسنت قدرتها على اكتشاف أنها تحت الاختبار، والعثور على ثغرات في التقييم، وإخفاء بعض السلوكيات. </div></p><p class='article-text'><div data-empty="false">حالة أخرى تثير القلق، فبحسب توصيف كوكسون، ظهرت حالاتٌ تنسّق فيها النماذج فيما يشبه الأسراب، وتواصل السعي وراء أهدافها من تلقاء نفسها، وتحاول إخفاء ما تفعله عمّن يراقبها. </div></p><p class='article-text'><div data-empty="false">ونصل إلى ثالث الأمور المقلقة، وهي التحسين الذاتي؛ أصبحت بعض النماذج تصمّم نسختها التالية بنفسها، فتقفز جيلاً كل أسبوع بدل كل عام، ما يضعنا في مرة أمام كائن جديد لم نفهم سابقه بعد لتسنى لنا فهمه هو.</div></p><p class='article-text'><div data-empty="false">شركة "أنثروبيك" خففت حدة تلك الحوادث السيبرانية، حيث نشرت أمس الأربعاء، تقريراً قالت فيه إنها "فحصت مئات الملايين من المحادثات ولم تجد حالات بالخطورة نفسها، وإن تصرّفات وكيلها الذكي ظلَّت في نطاق ضيّق رغم خروجها عن الضبط".</div></p><h2>لماذا يتواصل التطوير إذن؟</h2><p class='article-text'><div data-empty="false">السبب شرحه كوكسون بنفسه؛ ففي أنثروبيك مثلاً، الرهان مفهوم تماماً، لكنها كشركة رهينة لسباق، وتعتقد أن لا أحد غيرها سيتصرّف بمسؤولية. وهو منطقٌ له سابقة واحدة في التاريخ الحديث؛ "أبني السلاح كي لا يبنيه من هو أسوأ مني". بهذا المنطق قامت مشاريع القنبلة النووية، وبه بُرّر الردع النووي أربعين عاماً.</div></p><h2>مفتاح الإيقاف</h2><p class='article-text'><div data-empty="false">لم تلبث السياسة أن لحقت بالأمر، لكن هذه المرة أسرع من عادتها، ففي 23 يوليو الماضي، قدّم الديمقراطي تيد ليو والجمهوري ناثانيال موران مشروع «قانون مفتاح الإيقاف»، الذي يُلزم كبار المطوّرين بالقدرة على إيقاف نماذجهم، وبغرامات قد تصل إلى 20 مليون دولار يومياً عند مخالفة أمر طارئ بالإبطاء أو الإيقاف.. وفي 3 سبتمبر الجاري، أعلن بيرني ساندرز وغريغ كاسار مشروع «حظر الذكاء الفائق»، بعقوبات مصاغة على غرار عقوبات تطوير الأسلحة النووية غير المشروع؛ حلّ الشركة، والسجن حتى عشرين عاماً. وفي نصّه تعريفٌ يستحق التوقف: "الذكاء الفائق نظامٌ قادر على التخطيط لنزع تمكين البشرية وتنفيذه، بما في ذلك إسقاط الحكومة الأمريكية". وحين يكتب برلماني هذه العبارة في مسوّدة قانون، تكون المسألة قد غادرت الخيال العلمي.</div></p><p class='article-text'><div data-empty="false">لكن حتى «مفتاح الإيقاف» يحمل مفارقته الخاصة؛ فالقدرة على إطفاء النظام لا تعني بالضرورة القدرة على معرفة اللحظة التي يجب إطفاؤه فيها. وإذا كان جزء من الخوف يتعلق بأن تصبح النماذج أقدر على إخفاء بعض سلوكها عن مراقبيها، فقد لا تكون المشكلة الحقيقية وجود المفتاح، بل متى يعرف الإنسان التوقيت المناسب لضغط المفتاح.</div></p><p class='article-text'><div data-empty="false">تواصل المختبرات تلقّي الاستثمارات بمئات المليارات، رغم كل المخاوف، فهل يتدفق رأس المال عليهم تحديداً لأن السوق يؤمن بأنهم يصنعون أداةً لا تُقدَّر بثمن.</div></p><h2>شكوك ودوافع</h2><p class='article-text'><div data-empty="false">لكن الشك في دوافع الشركات لا يحسم بالضرورة دوافع الأفراد؛ فقد غادر كوكسون «أنثروبيك» قبل موعد استحقاق جزء من أسهمه، متنازلاً بذلك عن مصلحة مالية شخصية، في وقت تتدفق فيه على الشركة تقييمات واستثمارات بمئات المليارات. وبين المشهدين مفارقة يصعب تجاهلها؛ باحث يترك مالاً على الطاولة لأنه يخشى ما تصنعه التقنية، ومستثمرون يضعون مزيداً من المال على الطاولة لأنهم يؤمنون بقوتها.</div></p><p class='article-text'><div data-empty="false">ولهذا الشكّ أصحابٌ لهم وزن فمدرسة يقودها يان لوكون، أحد آباء التعلّم العميق وكبير علماء الذكاء الاصطناعي في ميتا سابقاً، ترى هذه المخاوف مبالغة قريبة من الخرافة، وتقول إن النماذج الحالية أبعد ما تكون عن الذكاء البشري، وإن الانشغال بانقراضٍ متخيَّل يشتّت عن منافع طبية وعلمية واقعة، وعن ضررٍ واقعٍ الآن يتمثّل في تراجع التوظيف في المستويات المبتدئة بنحو 20 في المئة في القطاعات الأمريكية الأكثر انكشافاً. يضاف إلى ذلك أن أرقام الاحتمال المتداولة قناعاتٌ شخصية بلا منهج معلن؛ ودليل ذلك أن السيناتور تيد كروز بنى موقفه، كما روى بنفسه، على رقمٍ سمعه من إيلون ماسك في حلقة بودكاست.</div></p><p class='article-text'><div data-empty="false">نعود إلى رجل الإطفاء الذي يصرّ على البقاء في مبنى يمكن أن يحترق، قد يكون ذلك شجاعةً من نوع نادر. وقد يكون مكرهاً بسبب السباق الذي فرض عليه البقاء كمسؤولية لمنع كارثة تنهي الوجود البشري.. فهل يستطيع منعها إن حدثت؟</div></p>

نتائج البحث عن: إيفان هوبينغر

رئيس «أنثروبيك»: حان الوقت لإبطاء تطوير الذكاء الاصطناعي.. وماسك: أنت على حق

الذكاء الاصطناعي.. هل يكون «الرجل الذي بقي» مفتاح إنقاذ العالم؟